Ngay từ năm 2000 trước Công Nguyên, các nhà toán học Babylon đã có thể giải những bài toán liên quan đến diện tích và các cạnh của hình chữ nhật. Có bằng chứng chỉ ra thuật toán này xuất hiện từ triều đại Ur thứ ba.[12] Theo ký hiệu hiện đại, các bài toán này thường liên quan đến việc giải hệ gồm hai phương trình:

x + y = p ,     x y = q {\displaystyle x+y=p,\ \ xy=q}

tương đương với phương trình:[13]:86

x 2 + q = p x {\displaystyle x^{2}+q=px}

Các bước giải được người Babylon đưa ra như sau:

1. Tính p/2.
2. Bình phương kết quả tìm được.
3. Trừ đi q.
4. Tính căn bậc hai bằng bảng căn bậc hai.
5. Cộng kết quả của bước (1) và (4) để tìm x. Điều này về cơ bản là tương đương với việc tính x = p 2 + ( p 2 ) 2 − q {\displaystyle x={\frac {p}{2}}+{\sqrt {\left({\frac {p}{2}}\right)^{2}-q}}}

Ở Babylon, Ai Cập, Hy Lạp, Trung Quốc, và Ấn Độ, phương pháp hình học được sử dụng để giải phương trình bậc hai. Tài liệu Berlin Papyrus của người Ai Cập có từ thời Trung vương quốc (từ năm 2050 đến 1650 trước CN) có chứa lời giải của phương trình bậc hai hai số hạng.[14] Trong nguyên bản kinh Sulba Sutras, khoảng thế kỷ 8 trước CN, phương trình bậc hai dạng ax2 = c và ax2 + bx = c được khảo sát bằng phương pháp hình học. Các nhà toán học Babylon từ khoản năm 400 trước CN và các nhà toán học Trung Quốc từ khoảng năm 200 trước CN đã sử dụng phương pháp phân chia hình học để giải các phương trình bậc hai với nghiệm dương.[15][16] Cuốn Cửu chương toán thuật của người Trung Quốc có ghi những quy tắc của phương trình bậc hai.[16][17] Trong những phương pháp hình học thuở đầu này không xuất hiện một công thức tổng quát. Tới khoảng năm 300 trước CN, nhà toán học Hy Lạp Euclid đã cho ra một phương pháp hình học trừu tượng hơn. Với cách tiếp cận hoàn toàn bằng hình học, Pythagoras và Euclid đã tạo dựng một phương pháp tổng quan để tìm nghiệm của phương trình bậc hai. Trong tác phẩm Arithmetica của mình, nhà toán học Hy Lạp Diophantus đã giải phương trình bậc hai, tuy nhiên chỉ cho ra một nghiệm, kể cả khi cả hai nghiệm đều là dương.[18]

Vào năm 628 CN, Brahmagupta, một nhà toán học Ấn Độ đưa ra lời giải rõ ràng đầu tiên (dù vẫn chưa hoàn toàn tổng quát) cho phương trình bậc hai ax2 + bx = c như sau: "Nhân số tuyệt đối (c) với bốn lần hệ số bình phương, cộng với bình phương hệ số số hạng ở giữa; căn bậc hai toàn bộ, trừ đi hệ số số hạng ở giữa, rồi chia cho hai lần hệ số bình phương là giá trị." (Brahmasphutasiddhanta, Colebrook translation, 1817, tr 346)[13]:87 Điều này tương đương:

x = 4 a c + b 2 − b 2 a . {\displaystyle x={\frac {{\sqrt {4ac+b^{2}}}-b}{2a}}.}

Thủ bản Bakhshali ra đời ở Ấn Độ vào thế kỷ 7 CN có chứa một công thức đại số cho việc giải phương trình bậc hai, cũng như những phương trình vô định. Muhammad ibn Musa al-Khwarizmi đi xa hơn trong việc cung cấp một lời giải đầy đủ cho phương trình bậc hai dạng tổng quát,[19] ông cũng đã mô tả phương pháp phần bù bình phương và thừa nhận rằng biệt thức phải dương,[19][20]:230 điều đã được 'Abd al-Hamīd ibn Turk (Trung Á, thế kỷ 9) chứng minh. Turk là người đưa ra những biểu đồ hình học chứng minh rằng nếu biệt thức âm thì phương trình bậc hai vô nghiệm.[20]:234 Trong khi bản thân al-Khwarizmi không chấp nhận nghiệm âm, các nhà toán học Hồi giáo kế tục ông sau này đã chấp nhận nghiệm âm cũng như nghiệm vô tỉ.[19]:191[21] Cá biệt Abū Kāmil Shujā ibn Aslam (Ai Cập, thế kỷ 10) là người đầu tiên chấp nhận các số vô tỉ (thường ở dạng căn bậc hai, căn bậc ba hay căn bậc bốn) là nghiệm hay là hệ số của phương trình bậc hai.[22] Nhà toán học Ấn Độ thế kỷ thứ 9 Sridhara đã viết ra các quy tắc giải phương trình bậc hai.[23]

Nhà toán học người Do Thái Abraham bar Hiyya Ha-Nasi (thế kỷ 12, Tây Ban Nha) là tác giả cuốn sách đầu tiên của người châu Âu có chứa lời giải đầy đủ cho phương trình bậc hai dạng tổng quát.[24] Giải pháp của Ha-Nasi dựa nhiều vào tác phẩm của Al-Khwarizmi.[19] Lần đầu tiên hệ số âm của 'x' xuất hiện trong tác phẩm của nhà toán học người Trung Quốc Yang Hui (1238–1298 CN), dù vậy ông cho điều này là từ nhà toán học Liu Yi ở thời trước đó.[25] Vào năm 1545 Gerolamo Cardano biên soạn các tác phẩm liên quan đến phương trình bậc hai. Công thức nghiệm cho mọi trường hợp lần đầu đạt được bởi Simon Stevin vào năm 1594.[26] Năm 1637 René Descartes công bố tác phẩm La Géométrie trong đó có chứa công thức nghiệm mà chúng ta biết ngày nay. Lời giải tổng quát xuất hiện lần đầu trong tài liệu toán học hiện đại vào năm 1896, bởi Henry Heaton.[27]